Various depth estimation models are now widely used on many mobile and IoT devices for image segmentation, bokeh effect rendering, object tracking and many other mobile tasks. Thus, it is very crucial to have efficient and accurate depth estimation models that can run fast on low-power mobile chipsets. In this Mobile AI challenge, the target was to develop deep learning-based single image depth estimation solutions that can show a real-time performance on IoT platforms and smartphones. For this, the participants used a large-scale RGB-to-depth dataset that was collected with the ZED stereo camera capable to generated depth maps for objects located at up to 50 meters. The runtime of all models was evaluated on the Raspberry Pi 4 platform, where the developed solutions were able to generate VGA resolution depth maps at up to 27 FPS while achieving high fidelity results. All models developed in the challenge are also compatible with any Android or Linux-based mobile devices, their detailed description is provided in this paper.
translated by 谷歌翻译
最近在各种语音域应用中提出了卷积增强的变压器（构象异构体），例如自动语音识别（ASR）和语音分离，因为它们可以捕获本地和全球依赖性。在本文中，我们提出了一个基于构型的度量生成对抗网络（CMGAN），以在时间频率（TF）域中进行语音增强（SE）。发电机使用两阶段构象体块编码大小和复杂的频谱图信息，以模拟时间和频率依赖性。然后，解码器将估计分解为尺寸掩模的解码器分支，以滤除不需要的扭曲和复杂的细化分支，以进一步改善幅度估计并隐式增强相信息。此外，我们还包括一个度量歧视器来通过优化相应的评估评分来减轻度量不匹配。客观和主观评估表明，与三个语音增强任务（DeNoising，dereverberation和Super-Losity）中的最新方法相比，CMGAN能够表现出卓越的性能。例如，对语音库+需求数据集的定量降解分析表明，CMGAN的表现优于以前的差距，即PESQ为3.41，SSNR为11.10 dB。
translated by 谷歌翻译
这项工作提出了下一代人类机器人界面，只能通过视觉来推断和实现用户的操纵意图。具体而言，我们开发了一个集成了近眼跟踪和机器人操作的系统，以实现用户指定的操作（例如，抓取，拾取和位置等），在其中将视觉信息与人类的注意合并在一起，以创建为所需的映射机器人动作。为了实现视力指导的操纵，开发了一个头部安装的近眼跟踪设备，以实时跟踪眼球运动，以便可以确定用户的视觉注意力。为了提高抓地力性能，然后开发出基于变压器的GRASP模型。堆叠的变压器块用于提取层次特征，其中在每个阶段扩展了通道的体积，同时挤压了特征地图的分辨率。实验验证表明，眼球跟踪系统产生低的凝视估计误差，抓地力系统在多个握把数据集上产生有希望的结果。这项工作是基于凝视互动的辅助机器人的概念证明，该机器人具有巨大的希望，可以帮助老年人或上肢残疾在日常生活中。可在\ url {https://www.youtube.com/watch?v=yuz1hukyurm}上获得演示视频。
translated by 谷歌翻译
多个对象跟踪（MOT）是包含检测和关联的任务。大量追踪器已经取得了竞争性能。不幸的是，由于缺乏这些子任务的信息交流，它们通常会偏向两者之一，并且在复杂的情况下，例如预期的虚假负面因素和彼此通过时的目标轨迹错误。在本文中，我们提出了Transfiner，这是一种基于变压器的MOT进行后填充方法。这是一个通用的附件框架，从原始跟踪器作为输入来利用图像和跟踪结果（位置和类预测）作为输入，然后将其用于强大地启动转机精矿。此外，推高器取决于查询对，这些查询对通过融合解码器产生了一对检测和运动，并实现了全面的跟踪改进。我们还通过根据不同的细化水平标记查询对来提供有针对性的改进。实验表明，在MOT17基准测试上，我们的设计是有效的，我们将CenterTrack从67.8％的MOTA和64.7％的IDF1提升到71.5％MOTA和66.8％IDF1。
translated by 谷歌翻译
在本文中，我们提出了一个迭代的自我训练框架，用于SIM到现实的6D对象姿势估计，以促进具有成本效益的机器人抓钩。给定bin选择场景，我们建立了一个光真实的模拟器来合成丰富的虚拟数据，并使用它来训练初始姿势估计网络。然后，该网络扮演教师模型的角色，该模型为未标记的真实数据生成了姿势预测。有了这些预测，我们进一步设计了一个全面的自适应选择方案，以区分可靠的结果，并将它们作为伪标签来更新学生模型以估算真实数据。为了不断提高伪标签的质量，我们通过将受过训练的学生模型作为新老师并使用精致的教师模型重新标记实际数据来迭代上述步骤。我们在公共基准和新发布的数据集上评估了我们的方法，分别提高了11.49％和22.62％的方法。我们的方法还能够将机器人箱的成功成功提高19.54％，这表明了对机器人应用的迭代SIM到现实解决方案的潜力。
translated by 谷歌翻译
最近，卷积增强的变压器（构象异构体）在自动语音识别（ASR）和时间域语音增强（SE）中实现了有希望的表现，因为它可以捕获语音信号中的本地和全局依赖性。在本文中，我们在时间频率（TF）域中提出了SE的基于构型的度量生成对抗网络（CMGAN）。在发电机中，我们利用两阶段的构象体块来通过对时间和频率依赖性进行建模来汇总所有幅度和复杂的频谱图。大小和复杂谱图的估计在解码器阶段被解耦，然后共同掺入以重建增强的语音。此外，通过优化相应的评估评分，采用了度量歧视器来进一步提高增强估计语音的质量。语音库+需求数据集的定量分析表明，CMGAN在优于以前的模型的功能，即PESQ为3.41，SSNR为11.10 dB。
translated by 谷歌翻译
专家混合物（MOE）由于其成功提高了模型质量，特别是在变压器方面的成功而变得流行。通过向几个专家提供稀疏门的令牌，每个专家只包含完整模型的一部分，Moe将模型尺寸保持不变，并且显着降低了每次标记计算，从而有效地缩放神经网络。但是，我们发现，目前的联合训练专家和稀疏门的方法引入了对模型精度的负面影响，缩短了昂贵的大规模模型训练的效率。在这项工作中，我们提出了用于MOE训练的密集至稀疏的门（DTS-Gate）。具体而言，代替使用永久稀疏门，DTS-Gate开始作为向所有专家路由令牌的密集栅极开始，然后逐渐和自适应地成为稀疏，而路线较少到更少的专家。与DTS-Gate的Moe自然地通过培训所有专家训练专家和稀疏门的训练，然后学习稀疏门。实验表明，与GPT-MOE（1.5B）模型中的最先进的开关门相比，使用OpenWeBtext数据集（40GB），DTS-Gate可以获得2.0倍的加速以达到相同的验证困惑，如以及更高的拖鞋 - 效率为1.42倍的加速。
translated by 谷歌翻译
视觉问题应答（VQA）任务利用视觉图像和语言分析来回回答图像的文本问题。它是一个流行的研究课题，在过去十年中越来越多的现实应用。本文介绍了我们最近对AliceMind-MMU的研究（阿里巴巴的编码器 - 解码器来自Damo Academy - 多媒体理解的机器智能实验室），其比人类在VQA上获得相似甚至略微更好的结果。这是通过系统地改善VQA流水线来实现的，包括：（1）具有全面的视觉和文本特征表示的预培训; （2）与学习参加的有效跨模型互动; （3）一个新颖的知识挖掘框架，具有专门的专业专家模块，适用于复杂的VQA任务。处理不同类型的视觉问题，需要具有相应的专业知识在提高我们的VQA架构的表现方面发挥着重要作用，这取决于人力水平。进行了广泛的实验和分析，以证明新的研究工作的有效性。
translated by 谷歌翻译
零/几次转移到看不见的服务是面向任务的对话研究中的一个关键挑战。架构引导的对话（SGD）数据集引入了一个范式，以使模型通过模式以零摄影的方式支持任何服务，该模型将服务API描述为自然语言的模型。我们通过设计SGD -X来探索对话系统对模式中语言变化的鲁棒性 - 一种基准，该基准扩展了SGD的语义上相似但风格相似但在每个模式上具有相似风格的变体。我们观察到，两种顶级状态跟踪模型无法通过模式变体概括，这些模型通过联合目标准确性和用于测量模式灵敏度的新型指标来衡量。此外，我们提出了一种简单的模型数据扩展方法，以改善模式鲁棒性。
translated by 谷歌翻译
由于点云数据的稀缺性质，在大规模环境中使用激光雷达识别使用激光雷达的地方是具有挑战性的。在本文中，我们提出了BVMATCH，基于LIDAR的帧到帧位置识别框架，其能够估计2D相对姿势。基于地面区域可以近似作为平面的假设，我们将地面区域统一地分散到网格和项目3D LIDAR扫描到鸟瞰图（BV）图像。我们进一步使用了一组Log-Gabor过滤器来构建一个最大索引图（MIM），用于编码图像中结构的方向信息。我们从理论上分析MIM的方向特征，并引入了一种名为鸟瞰图特征变换（BVFT）的新颖描述符。所提出的BVFT对BV图像的旋转和强度变化不敏感。利用BVFT描述符，统一LIDAR将识别和将估算任务统一到BVMATCT框架中。在三个大规模数据集上进行的实验表明，BVMATCH在召回的位置识别和姿势估计精度的召回速率方面优于最先进的方法。
translated by 谷歌翻译